什么是人工智能?

人工智能研究员麦卡-克拉克（Micah Clark）写道，"从个人和哲学的层面上讲，人工智能一直在塑造人，是关于'人格'的"。目前的人工智能还远远没有达到 "人格 "的境界，它们最好被理解为高度优化的算法，可以解决一些狭窄的任务，但却不善于将这些技能转移到新的任务上。对于能够执行与人类相关的复杂认知任务的合成有意识智能是否会出现并最终超越人类的能力，研究人员甚至还存在分歧。尽管如此，超级智能和意识这两个步骤如果能够实现，将会改变战争及其性质。

超级智能

关于人类智能的本质尚无共识，关于超级智能的共识就更少了。我们仍然可以采用博斯特罗姆提出的工作定义："任何在几乎所有相关领域大大超过人类认知能力的智力 "都是超级智能。这可以表现为与人类智力能力相当，但速度快多个数量级，也可以表现为比人类智力高出很多，或者是两者的结合。起初，它将是一个 "种子 "人工智能，能够通过递归自我完善建立一个更好的版本。人工智能研究人员认为，只要有足够的智能放大技能，系统就能根据需要开发出新的认知模块，包括同理心、战略思维和政治敏锐度。

不过，社会心理学家已经认识到，作为与单个有机体相关的东西，心智只是智能的近似值。实际上，心智是社会性的，它存在于社会和文化系统之中。人工生命（ALife）研究可以让我们深入了解机器如何通过贸易和斗争规则来组织社会，并发挥社会智能的作用。人工生命设想了人工智能社会的可能性，这将导致人工智能的超强智能。

意识

人工通用智能可能会发展意识，将其作为优化整体奖励功能的工具，并可能具有与人类截然不同的特征。哲学家和研究人员在意识是什么、自我意识是否必要或只是一种特殊的现象意识等问题上存在分歧。特别是，缺乏身体经验和生物动机将实现明显的卡特尔式身心二元论，这将从根本上质疑人工智能区分自身与他人、关心自身和表达意向性的能力。

人工智能的进化并不完全可预测，但我们可以预见，它将发展出越来越高的智能和某种程度的自主意识。我们可以通过这些概念来探讨其对战争的影响。

是战争吗？

克劳塞维茨的战争定义

要回答的第一个问题是，与 AGIs 以及由 AGIs 发起的战争究竟是战争还是一种不同类型的互动。克劳塞维茨在《论战争》中提出了战争的概念（Begriff），即 "一种迫使对手实现我们意愿的暴力（Gewalt）行为"。

这一定义包括三个要素：a) 暴力；b) 目的；c) 社会要素。

a. 在克劳塞维茨看来，使用暴力的结果是 "流血"，[xxi]而战争的对等因素使暴力具有升级的性质，其使用没有理论上的限制。

b. 另一方面，暴力升级是一种潜在的结果，而不是必然的结果，因为人类的理性决定应决定暴力升级。因此，军事目的（Ziel）受到限制，并根据战争的政治目的（Zweck）来判断，它只是现有总体手段（Mittel）的一个组成部分。

c. 战争是愿意抵抗并实现其政治目的的群体之间的关系。它是 "联合侵略 "的一种功能，必须发生在对现实有共同理解的有组织团体之间。

a. 暴力与AGIb. 目的与AGIc. 社会要素与AGI它会改变战争的性质吗?

战争的性质是什么?

战争的本质被提炼为克劳塞维茨所说的 "奇妙的三位一体"。其要素是：a) 暴力、仇恨和敌意；b) 机率和概率的作用；c) 战争从属于政策和理性的要素。

a. 克劳塞维茨认为敌对有两种类型：敌对情绪或敌意和敌对意图。敌意本质上是政治性的，是战争发生的必要条件，可以在没有敌意的情况下存在。敌意的强度是可变的，如果没有敌意，战争将是一种代数练习。

b. 克劳塞维茨指出，战争是概率的领域。不利的情况是由摩擦造成的：道德和体力消耗（危险和消耗），以及缺乏知识和运气不佳（不确定性和偶然性）。估计这些因素的影响需要判断和近似值，因为案例数量极多，无法用数学方法计算。人类有限的认知能力迫使指挥官做出 "足够好 "的决定。

c. 克劳塞维茨坚定地认为，战争具有理性成分，它不是 "自主的东西，而总是政策的工具"。政治家和指挥官的职责是确定 "他们正在进行的战争的类型；既不误认为战争，也不试图将战争转变为与其性质格格不入的东西"。他们在这样做时不应被敌对情绪所蒙蔽，并应正确判断可能性。

a. 敌意与AGIb. 机率与AGIc. 政策与AGI结论

【完整内容请上专知查阅】

专知便捷查看

便捷下载，请关注专知智能防务

便捷下载，请关注专知智能防务

专知，专业可信的人工智能知识分发，让认知协作更快更好！欢迎注册登录专知www.zhuanzhi.ai，获取70000+AI(AI与军事、医药、公安等)主题干货知识资料！

点击“阅读原文”，了解使用专知，查看获取100000+AI主题知识资料返回搜狐，查看更多